When Does Action Credit Need Updating?
何时需要更新动作信用?
🧭 工具智能体动作价值更新门控
Georgia Institute of Technology
提出基于分支敏感度的动作信用传输与决策充分门控,显著减少策略更新后的工具交互重算成本。
📌 工作参考价值(4 点)
- 在线策略更新后,不必全量重新收集交互数据来更新动作价值(如工具选择、商品排序),可复用旧轨迹并做一阶修正估计新策略下的价值,减少标注和模拟成本。
- 用 pairwise branch sensitivity 代替全局 KL/参数距离,衡量策略更新对特定两个候选动作(如两个工具、两个商品)排序的影响,精准识别哪些历史信用仍可复用。
- DSC-Gate 的决策充分门控思路:对比估计价值差与漂移阈值,决定 reuse/transport/resample,可作为推荐系统在线学习、A/B 测试或 Agent 工作流中节省样本和算力的工程策略。
- 在电商客服 Agent 等工具调用场景,策略微调后可用历史交互数据做信用传输,避免每次重新模拟或真实环境交互,降低维护成本。